Мъск споделя манипулирано видео на Камала Харис, предизвиквайки опасения относно ИИ в политиката

В манипулиран видеоклип има глас зад кадър, който имитира Камала Харис и включва погрешни изказвания, които тя не е казвала.

Манипулирано видео, което имитира гласа на вицепрезидента на Съединени американски щати Камала Харис, породи опасения по отношение на силата на изкуствения разсъдък (AI) да подвежда по време на избори.

Видеото притегли вниманието след Tesla и основният изпълнителен шеф на SpaceX Илон Мъск го споделиха в своята обществена медийна платформа X в петък вечерта, без да означават, че в началото е пуснат като подигравка.

Оттогава Мъск е разгласил още веднъж видеоклипа, в това число надписа на истинския консуматор, заявяващ, че е подигравка, и добавяйки, че „ пародията е законна в Америка “.

Видеото употребява образни детайли от същинска реклама на президентската акция на Харис, само че заменя нейния глас зад кадър с подобен, който имитира евентуалния претендент за президент на Демократическата партия.

Миа Еренберг, представител на акцията на Харис, сподели в имейл до Асошиейтед прес: „ Вярваме, че американският народ желае същинската независимост, опция и сигурност, които вицепрезидентът Харис предлага; не подправените, манипулирани неистини на Илон Мъск и Доналд Тръмп ".

Широко споделяният видеоклип е образец за това по какъв начин реалистично генерирано от AI наличие, което стана по-лесно за основаване, се употребява за пародиране или заблуждение политика на фона на избори.

Някои консуматори онлайн се усъмниха дали обявата на Мъск може да наруши, което споделя, че потребителите „ не могат да споделят синтетични, манипулирани или отвън подтекста медии, които могат да заблудят или объркат хората и да доведат до щета “.

Политиката има изключение за мемове и ирония, стига да не провокират „ доста комплициране по отношение на достоверността на медиите “.

Първата обява на Мъск за видеоклипа не го направи прецизира, че това е подигравка и демонстрира видеото единствено с думите „ Това е необикновено “.

Технологичният милиардер поддържа някогашния президент Доналд Тръмп, претендентът на Републиканската партия, по-рано този месец.

Нито YouTuber, който разгласява видеото, прочут като господин Рейгън, нито Мъск дадоха отговор неотложно на изпратените по имейл претенции за коментар в неделя.

' Нещо, за което предупреждавахме'

Двама специалисти, профилирани в медии, генерирани от AI, прегледаха аудиото на подправената реклама и потвърдиха, че огромна част от него е генерирано благодарение на AI технология.

Единият от тях, Калифорнийският университет в Бъркли, специалист по цифрова криминалистика Хани Фарид, сподели, че видеото демонстрира силата на генеративния AI и deepfakes.

„ Гласът, генериран от AI, е доста добър “, сподели той в имейл. „ Въпреки че множеството хора няма да повярват, че това е гласът на вицепрезидент Харис, видеото е доста по-силно, когато думите са в нейния глас. “

Той сподели, че генеративните AI компании, които вършат принадлежности за клониране на глас и други AI принадлежности налични за обществеността, би трябвало да създадат по-добре, с цел да подсигуряват, че техните услуги не се употребяват по способи, които биха могли да навредят на хората или демокрацията.

Роб Вайсман, съпредседател на застъпническата група Public Citizen, не се съгласи с Фарид, като сподели, че счита, че доста хора ще бъдат заблудени от видеото.

„ Не мисля, че това е явна смешка “, Вайсман сподели в изявление. „ Сигурен съм, че множеството хора не одобряват, че това е смешка, само че е задоволително положително и тъкмо тъй като се вписва в съществуващите тематики, множеството хора ще повярват, че е същинско. “

Вайсман, чиято организация се застъпи за Конгреса, федералните организации и щатите да контролират генеративния ИИ, сподели, че видеото е „ нещо, за което предизвестяваме по отношение на ".